MuChator: Enabling Active Music Discovery via Conversational Music LLMs in Douyin Music
MuChator:基于对话式音乐LLM的抖音音乐主动发现框架
🧭 生成式推荐 · 对话推荐 · MusicLLM ★ 深度解读
ByteDance
提出端到端对话音乐LLM框架MuChator,通过三阶段预训练注入知识/偏好、自动合成指令微调及混合奖励GRPO对齐,线上活跃天数提升46.49%
📌 工作参考价值(4 点)
- 多阶段课程注入领域知识:分阶段预训练(客观元数据→主观评论/播放列表→个性化行为序列)逐步提升LLM对垂直领域的理解,可迁移到电商中渐进融入商品知识、用户评论和购买偏好。
- 下一行为预测统一序列建模:将物品推荐和用户反馈(点赞、跳过)交织成自回归序列,提供更稠密的监督信号,提升训练效率,适合电商的点击/加购/转化序列联合建模。
- 自动化指令数据合成pipeline:通过语义聚类、候选检索和个性化模型打分过滤,低成本构建高质量用户-查询-物品指令对,可用于快速搭建对话推荐或Agent的任务数据。
- 混合奖励与GRPO对齐:结合模型奖励(相关性/个性化)与规则奖励(格式、事实性、多样性、去重),并以二值门控强制查询-物品相关性,可复用到电商对话推荐,确保推荐既符合意图又满足业务约束。